从大脑方面解码连续语言是一个强大而有前途的研究领域。对于有助于言语障碍的人通过大脑信号进行交流特别重要。此字段解决将大脑信号映射到文本的复杂任务。以前的最佳尝试以间接的方式逆转了这一过程:它始于学习从文本中编码大脑活动,然后通过与预测的大脑反应对齐来编码引导文本生成。相比之下,我们采用了一种简单而有效的方法,该方法通过将其直接与根据大脑活动映射的预测文本嵌入进行比较来指导文本重建。全面的实验表明,我们的方法明显胜过当前的最新模型,显示了BLEU和流星得分的平均提高77%和54%。我们通过详细的消融研究和案例分析来验证所提出的模块,并突出一个关键的相关性:我们将大脑活动映射到文本嵌入的情况越多,文本重建结果越好。这种洞察力可以简化从大脑活动中重新构建语言的任务,以强调实现大脑到文本的映射技术的重要性。
主要关键词
![arxiv:2403.17516v2 [cs.cl] 2024年4月2日PDF文件第1页](/bimg/0/08ab097c9d82002a5cdf010435fd07ee9b40f7a6.webp)
![arxiv:2403.17516v2 [cs.cl] 2024年4月2日PDF文件第2页](/bimg/0/0b3860e169e55414e654e8d7a03f6dcb0377d135.webp)
![arxiv:2403.17516v2 [cs.cl] 2024年4月2日PDF文件第3页](/bimg/c/c073dd1ea9bc62f63495d96fa3b31c504631f9f4.webp)
![arxiv:2403.17516v2 [cs.cl] 2024年4月2日PDF文件第4页](/bimg/d/dd130749d69884389cb0aee99ad9d0cd60cb6bec.webp)
![arxiv:2403.17516v2 [cs.cl] 2024年4月2日PDF文件第5页](/bimg/e/ec3b89ab0556a47e94cce08af6f8b532430e0128.webp)
